Intervista a Francesco D’Isa: Sunyata, le IA e il fumetto

Nel mezzo del dibattito su IA e arte, a poche settimane da Lucca, Eris Edizioni ha sganciato un annuncio che ha mandato il subbuglio il fumettomondo italiano: una graphic novel realizzata interamente con IA, realizzata da Francesco D’Isa. Poiché conosco bene Eris e quali siano i valori che guidano l’operato de* ragazz* che la compongono, così come ho familiarità con il lavoro di Francesco D’Isa e la sua posizione sulle IA argomentata in profondità sui social, ho seguito con interesse il dialogo nato tra casa editrice & autori da un lato e dall’altro un’ampia fetta di lettori abituali, appassionati e curiosi per lo più delusi e increduli per la scelta, inesorabilmente naufragato perché questa è la natura dei social, nonostante l’ammirabile sforzo argomentativo di Eris. 

Ho lasciato dunque che le acque si calmassero e ho approfittato di un momento di tranquillità (relativa, ovviamente) tra gli stand lucchesi per confrontarmi con l* ragazz* di Eris e concordare con loro in un’intervista a Francesco, in cui è inevitabilmente confluita anche parte di quel dialogo fieristico e social. 

Dal mio punto di vista è stata un’esperienza arricchente, nel senso che mi ha consentito di, e costretto a, rimettere in prospettiva il mio approccio alle IA e rivedere alcune mie posizioni apparentemente granitiche. 

Mi auguro possa sortire lo stesso effetto anche con voi. 

Ciao Francesco, per prima cosa vuoi presentarti ai lettori di Players?

Ciao a tutti e a tutte, sono Francesco D’Isa, e per farla breve mi occupo per lo più di filosofia e arte digitale. Ho scritto saggi (l’ultimo L’assurda evidenza, edizioni Tlon) ed esposto in varie gallerie in Italia e all’estero. Attualmente mi trovate a Galatina alla Gigi Rigliaco Gallery e a Firenze presso l’istituto IED. Dirigo la rivista culturale L’Indiscreto.

Ho seguito con curiosità i tuoi ragionamenti sulle IA sui social, senza sapere che stessi realizzando un fumetto con questi strumenti. Come è maturata in te l’idea di mettere in pratica quanto stavi studiando?

L’dea è maturata proprio mentre studiavo lo strumento, perché per me teoria e pratica sono spesso coincidenti. Esplorando queste tecnologie dal punto sia filosofico che pratico è nata l’idea di sviluppare una storia illustrata – quasi per caso a dire il vero, ma una volta che la narrazione visiva ha preso vita non mi sono fermato fino alla sua conclusione.

Che regole ti sei dato nella realizzazione di Sunyata e quali sono state le principali sfide che hai incontrato durante la lavorazione con le IA?

L’idea è nata senza regole, come il frutto del “dialogo” con lo strumento e col caso – è un metodo di lavoro creativo che mi appartiene da prima della nascita di queste tecnologie, da questo punto di vista non è cambiato molto. Solo una volta che Sunyata è germinata mi sono dato una prassi di lavoro più precisa, ma sempre basata sul farmi in parte sorprendere dal mezzo per poi incanalare i risultati in un piano leggibile e definito. Usare le IA significa accettare di non avere il controllo assoluto sul risultato, anche se in misura diversa si può dire un po’ di tutti gli strumenti. La sfida maggiore è stata trasformare i limiti in pregi: è così che l’assenza di controllo, la resa sinergica dei soggetti, l’incapacità di creare costanti visive sono entrate a far parte della storia.

Cosa volevi raccontare con Sunyata e perché hai ritenuto Midjourney fosse lo strumento più adatto?

La risposta sincera è “niente”. Non avevo alcuna intenzione definita quando ho iniziato Sunyata, il libro ha preso forma naturalmente, privo di intenzionalità. È forse per questo che parla di śūnyatā, il ricchissimo vuoto della filosofia buddista, la lussureggiante coincidenza tra essere e nulla che in Occidente aveva in qualche forma intuito anche Hegel. In fondo l’unica intenzione giusta per parlare di śūnyatā è non averne alcuna.

Midjourney era ed è uno strumento molto adatto alla creazione di immagini oniriche, non tanto nella forma, sebbene si presti molto al surrealismo kitsch, quanto nella prassi, se si usa come un catalizzatore ipnagogico o come una protesi per l’immaginazione attiva. Non voglio dare adito ad antropomorfismi, queste macchine non pensano né sono intelligenti, perlomeno non secondo i criteri che usiamo tra umani. Ammetto però che la somiglianza del processo con la nascita delle visioni del pre-sonno o in alcune fasi della meditazione è molto marcata.

Parlando con l* ragazz* di Eris a Lucca è emerso che ci è voluto un anno prima di dare luce verde a Sunyata: che tipo di dialogo avete avuto durante quel periodo?

A dire il vero nessuno: ho mandato il libro e me lo sono quasi scordato. Una mail iniziale per capire se lo stavano valutando, poi silenzio per quasi un anno, finché non mi chiamano e mi spiegano i motivi del loro desiderio di pubblicarlo. È stata una lunga attesa, ma per un progetto simile era necessaria un’analisi approfondita e li capisco benissimo. Non so cosa si aspettavano quando mi hanno proposto di farlo uscire di pubblico dominio, è una soluzione verso cui gli autori sono spesso (erroneamente) ostili – io ero entusiasta.

Quanto eravate pronti alle reazioni a Sunyata? Vi aspettavate qualcosa di diverso?

Ti dirò, pensavo peggio. Ero sicuro della reazione negativa e aggressiva di una parte della comunità del fumetto, ma non mi aspettavo quella positiva, almeno non da questo ambiente. Ho invece ricevuto tantissima solidarietà, supporto e soprattutto curiosità: anche nel fumetto ci sono persone cui il tabù sull’uso delle nuove tecnologie sta stretto. La shitstorm era comunque prevista ed è stata ovviamente spiacevole, ma nella massa solo un episodio mi ha addolorato e fatto arrabbiare.

La cosa curiosa è che durante le mie soste allo stand di Eris a Lucca mi è capitato di vedere lettori che sfogliavano Sunyata e riconoscevano nelle immagini il tuo stile autoriale: in qualche modo questo aggiunge nuovi elementi al discorso su IA e arte?

Assolutamente sì. Mi è stato detto più volte: “le tue immagini le riconosco come tue”, anche rispetto ai miei precedenti lavori non artificiali. È la testimonianza che le IA non sono in alcun modo autrici ma strumenti, perché cambiano voce in base a chi le usa, almeno se ad usarle sono persone che hanno una qualche dimestichezza col mondo della comunicazione visiva. Le IA hanno vari limiti (soprattutto quelle non open source, essendo piene di censure imposte dalle aziende), ma sono comunque estremamente versatili ed è possibile usarle per trovare o amplificare la propria voce. Una voce umana, ovviamente.

Il problema del rapporto tra IA e diritto d’autore tuttavia è alla luce del sole: pensi ci sia la possibilità di trovare una soluzione? Il paragone con la musica e l’uso dei campioni nell’elettronica fatto da Eris suoi social mi sembra molto calzante con la situazione attuale: pensi che il mondo dell’arte si troverà obbligato a rivedere le proprie regole sul diritto d’autore?

Di soluzioni ce ne sono varie, bisogna vedere però quali sono migliori. Alcuni artisti sotto l’egida di Egair propongono tra le altre cose che il dataset sia protetto da diritto d’autore e che il training non vada considerato fair use. Io sono allineato con lo scopo di Egair (avvantaggiare gli artisti) e in totale disaccordo con la loro strategia. Anzitutto parto da una posizione molto critica rispetto alle attuali norme sul diritto d’autore, che come molti studiosi e studiose trovo inadatto all’era digitale perché va ad esclusivo vantaggio delle grandi aziende e di pochi artisti celebri. Ne ho parlato molto, come ad esempio qua e qua.

Ma anche al di là della critica politica e filosofica, l’idea di appellarsi a un copyright ancora più severo è dannosa per motivi pratici. Un compenso economico realistico a chi produce le immagini o i testi è infatti impensabile. Dato che per sviluppare queste tecnologie servono miliardi di immagini o testi, il contributo dei singoli è minuscolo ed è inimmaginabile l’idea di pagarli anche solo un euro l’uno, perché renderebbe il già alto investimento di partenza impossibile. I dati verrebbero dunque retribuiti una miseria e a guadagnarci sarebbe solo chi già li possiede in enormi quantità – Shutterstock ad esempio sta pagando i creators qualcosa come 0,01 a immagine usata per il training.

L’alternativa è dunque che tutti si rifiutino di concedere i loro dati, rendendo queste tecnologie molto meno efficaci (come ad esempio Adobe Firefly, che usa solo immagini proprietarie). Anche se giudicassimo lodevole o plausibile questo scenario, l’ipotesi presenta serie criticità.

La prima è che, restando agli artisti, quelli che non sono già molto affermati non hanno potere contrattuale. Così come si accettano royalties relativamente basse (attorno all’8%) e anticipi esili se non inesistenti, si accetterà anche la clausola del training, laddove sarà necessario inserirla. Quando si pensa alle leggi non si devono valutare solo sulla carta, ma anche per la loro efficacia concreta.

La seconda è che comunque anche queste IA “deboli” hanno un grosso un impatto sul mercato creativo, e sarebbero considerate innocue solo per i lavori più autoriali – gli unici che per me non rischiano nulla in ogni caso. Il grosso del mercato creativo e dei relativi proventi di chi ci lavora non è in opere d’arte, ma in lavori commerciali poco originali e fatti assecondando le richieste dei committenti: tutte cose che anche le IA costruite su dataset proprietari possono fare benissimo. Quale che sia l’impatto sul lavoro dunque, sarà identico, ma impedirà agli artisti senza portafoglio di usare le IA al massimo della loro efficacia perché dovranno sempre rivolgersi a software proprietari e non modificabili.

La terza è infatti l’impatto sulle open source. Al momento è possibile personalizzare le tecnologie open source con il fine-tuning, ma solo se l’uso dei dati per il training resterà libero. Il dataset a pagamento inoltre diminuirebbe ancora di più la varietà delle aziende che producono queste tecnologie, per via dell’ulteriore filtro economico. Per costruire  queste macchine infatti, così come per produrre computer, fotocamere e mille altri strumenti di uso comune, servono comunque grossi investimenti e dunque possono farlo solo aziende private o pubbliche, questo in ogni caso. Più il tetto dell’investimento si alza, meno società potranno permetterselo. 

La quarta è una ragione geopolitica. Se noi non consideriamo l’uso dei dati fair, dobbiamo però tener conto che in Giappone già lo è. Se noi non consideriamo le immagini IA come un prodotto creativo umano, dobbiamo tenere conto che in Cina vengono legalmente considerate tali. È uno dei motivi per cui si era arenato l’IA act, che oltre a molte ottime richieste ne ha alcune impossibili, inutili o facilmente aggirabili, come far sì che i modelli generalisti segnalino che un’immagine o un testo è prodotto da IA. Anche la giustissima richiesta di trasparenza del dataset è stata accolta con timore delle aziende IA europee: se poi si considerasse illecito fare training con materiale protetto, ne risulterebbero molto svantaggiate. Dall’altro lato però abbiamo vari colossi editoriali che pretendono la loro fetta di guadagno, come recentemente il New York Times, che ha denunciato OpenAi. Non parliamo di piccoli autori con un libro nel dataset, un contributo del tutto irrisorio paragonato alla dimensione necessaria per addestrare un LLM, ma di colossi editoriali che possono accampare pretese dalla montagna di diritti di cui sono in possesso – che rendono le pretese economiche sostanziali. In Occidente credo che la direzione sarà quella consueta e individualista, i dati come bene privato, ma non viviamo in un mondo in pace perpetua in cui tutti gli stati si possono accordare su questioni simili, ma in un contesto concorrenziale. L’Oriente ha una visione più collettivista e potrebbe puntare ai dati come bene pubblico. Questo è anche il motivo per cui a nessuno purtroppo salta in mente di regolare le IA per uso militare, se non in casi estremi a livello atomico (si veda l’accordo tra USA e Cina). E ovviamente delle IA che generano testo e immagini sono tutto tranne un rischio esistenziale.

C’è poi una ragione sociale, che per me è la più importante. Il mondo cognitivo delle IA è determinato dai dati, ed è proprio per questo che desidero che abbiano anche i miei. Voglio che queste tecnologie abbiano la mia voce come  quella di chiunque, non solo di quella che decidono e/o acquistano le aziende. In caso contrario saremo limitati e danneggiati anche dai bias culturali delle IA, oltre che dai nostri. È vitale che il dataset sia aperto e modificabile.

Per concludere, nel caso in cui si limitasse il training con il copyright, si verificherebbe l’inedito scenario in cui IA pirata o non a scopo di lucro sarebbero più potenti di quelle commerciali. Davvero useremmo queste ultime?

Avevi mai pensato di realizzare una graphic novel come autore unico prima dell’avvento delle IA? E in questo senso, come definiresti l’apporto delle IA nella lavorazione di Sunyata, partner creativi o strumenti?

In realtà ne avevo già fatta una nel 2011 per nottetempo. Si intitola I. ed era costruita assemblando immagini libere dal diritto d’autore. C’è una certa continuità… le IA le definirei strumenti, ma tutti gli strumenti (penne incluse) sono anche partner creativi. Come si dice nello zen buddista, l’inchiostro e la carta determinano il risultato quanto le mani.

Intanto però gli allarmi più concreti intorno alle IA riguardano la loro autoalimentazione che sta contaminando la componente informativa della rete: il 2023 potrebbe essere la fine di internet per come l’abbiamo conosciuto finora. Per la tua conoscenza delle IA, pensi si possa trovare una soluzione a questa deriva?

Si tratta di studi molto interessanti ma per ora di laboratorio. Era in un certo senso prevedibile (ma giustamente andava dimostrato) che se alleni delle IA con materiale sintetico senza alcuna selezione gli errori si accumulino portando al collasso del sistema, ma le immagini artificiali riversate su internet non sono casuali, sono figlie di un filtro umano. Faccio un esempio: le IA scrivono quei noiosi testi di copywriting per i siti spesso molto meglio degli umani. Una volta che il testo è rivisto da un copy umano anche superficialmente, perché mai dovrebbe inquinare? Ad avvalorare questa idea c’è il fatto che i dati sintetici con supervisione umana sono già usati con successo nel training, ci sono molti studi a riguardo. Non sono un tecnico, queste ricerche sono importanti e ne aspettiamo gli svolgimenti, ma “la fine dell’internet” mi suona come un’esagerazione giornalistica alla millennium bug.

Continuerai a sperimentare con le IA, magari in altre forme, oppure hai già individuato un nuovo altro campo di interesse tecnologico?

Certo che continuerò! E se ne nasceranno altre proverò anche quelle, sono una persona curiosa.

Link Amazon.